Lương Sư Đô là người Sóc Phương thuộc Hạ châu[c 1], xuất thân từ một hào tộc trong quận. Thời Tùy, ông giữ chức Ưng Dương lang tướng. Vào cuối niên hiệu Đại Nghiệp (605-618), ông rời khỏi quân đội và trở về quận nhà[c 2]. Đương thời, có nhiều cuộc nổi dậy nổ ra trong khu vực, Lương Sư Đô tập hợp được vài nghìn người nổi dậy.[1]

Ngày Nhâm Ngọ (1) tháng 2 năm Đinh Sửu[2] (13 tháng 3 năm 617) quân của Lương Sư Đô giết Sóc Phương quận thừa Đường Thế Tông. Ban đầu, Lương Sư Đô cát cứ Sóc Phương, tự xưng là "đại thừa tướng", liên kết với Đông Đột Quyết ở phương Bắc. Khi tướng Tùy là Trương Thế Long (張世隆) đem quân tiến đánh, Lương Sư Đô đánh bại quân triều đình. Sau đó, ông khiển binh đoạt lấy các quận lân cận: Điêu Âm[c 3], Hoằng Hóa[c 4], và Diên An[c 5].[1]

Lương Sư Đô xưng làm hoàng đế, đặt quốc hiệu là Lương, đặt niên hiệu là Vĩnh Long. Ông quy phục Thủy Tất khả hãn A Sử Na Đốt Cát Thế của Đông Đột Quyết, được Đột Quyết khả hãn phong hiệu là Đại Độ Bì Già khả hãn (大度毗伽可汗) và ban cho 'lang đầu đạo' (cờ đầu sói)- biểu tượng của Đột Quyết. Ông dẫn quân Đông Đột Quyết chiếm đất Hà Nam (bờ nam Hoàng Hà), công phá Diêm Xuyên quận[c 6]. Thủy Tất khả hãn cũng phong tước hiệu "Giả Sự thiên tử " cho Lương Sư Đô, mặc dù bản thân Lương Sư Đô đã xưng đế.[2]